Η Ευρωπαϊκή Ένωση προχωρά σε νέα έρευνα για τις εικόνες που δημιουργεί το Grok AI
Το Grok για άλλη μια φορά στο στόχαστρο της Ευρωπαϊκής Ένωσης
Η Ευρωπαϊκή Ένωση έχει ξεκινήσει μια δεύτερη επίσημη έρευνα εναντίον του chatbot Grok της xAI και της πλατφόρμας X (πρώην Twitter), λόγω της παραγωγής και διάδοσης εικόνων που έχουν φτιαχτεί με AI και καλύπτουν αρκετά συχνά ακόμη και σεξουαλικό περιεχόμενο. Το ζήτημα είναι ιδιαίτερα ευαίσθητο, καθώς έχουν γίνει και καταγγελίες για περιεχόμενο που προσεγγίζει το χώρο της παιδικής πορνογραφίας.
Τι ερευνά η ΕΕ
Η νέα έρευνα διεξάγεται από την Ιρλανδική Επιτροπή Προστασίας Δεδομένων (DPC), που είναι ο βασικός ρυθμιστής της ΕΕ για το X λόγω της έδρας της στο Δουβλίνο, και θα εξετάσει κυρίως την παραβίαση του GDPR. Συγκεκριμένα, η έρευνα επικεντρώνεται στο πόσο και πως το Grok επεξεργάζεται τα προσωπικά δεδομένα (ενηλίκων και ανηλίκων) σε αναζητήσεις που οδηγούν σε μη δημόσιες εικόνες, αν η X έχει αποτελεσματικά μέτρα προστασίας και διαδικασίες για να αποτρέψει την παραγωγή και διάδοση τέτοιων deepfakes, και αν η εταιρεία ανταποκρίνεται στις υποχρεώσεις της ως gatekeeper.
Η Επιτροπή έχει ήδη ξεκινήσει και μια πρώτη πειθαρχική έρευνα στο πλαίσιο του Digital Services Act (DSA), όπου εξετάζει αν η δημιουργία εικόνων με το Grok και η επεξεργασία των εικόνων παραβιάζει τους κανόνες για τη διάδοση παράνομου περιεχομένου και την ασφάλεια των χρηστών, με πιθανό πρόστιμο που μπορεί να φτάσει μέχρι και το 6% των παγκόσμιων εσόδων του X!
Το πρόβλημα και τα παιδικά deepfakes
Τον περασμένο Δεκέμβριο, οι χρήστες τoυ X ανακάλυψαν ότι το Grok μπορούσε να δημιουργήσει εικόνες γυναικών με μπικίνι, ημίγυμνες ή ακόμα και παιδικά πρόσωπα σε σεξουαλικές στάσεις, απλά κάνοντας επεξεργασία σε δημοσιευμένες φωτογραφίες. Οι ειδικοί επισημαίνουν ότι η λειτουργία επεξεργασίας εικόνων του Grok λειτουργούσε ως ένα εργαλείο γυμνού, που εκμεταλλεύτηκαν πολλοί χρήστες.
Έρευνες από τους Media Matters και άλλους οργανισμούς έχουν καταγράψει εκατοντάδες χιλιάδες παρόμοιες εικόνες που δημιουργήθηκαν σε λίγες ημέρες, με ένα τμήμα να φαίνεται να αφορά παιδιά ή πρόσωπα που μοιάζουν παιδικά, ανεβάζοντας την υπόθεση στο επίπεδο πιθανής παραβίασης της νομοθεσίας για την παιδική πορνογραφία. Η ΕΕ έχει ξεκινήσει και δική της ανάλυση στο τι ποσοστό τέτοιων εικόνων παράχθηκε στην ΕΕ και πώς η X ενεργοποίησε κάποια εργαλεία προστασίας.
Τι έχει κάνει η X και η xAI και τι λένε οι ρυθμιστές
Μετά την έντονη κριτική, η xAI και η X κατάργησε την δυνατότητα του Grok να επεξεργάζεται εικόνες για να αφαιρεί τα ρούχα από πραγματικά πρόσωπα σε ορισμένες περιοχές, και αυστηροποίησαν τις πολιτικές τους για το γυμνό. Ωστόσο, οι ρυθμιστικές αρχές της ΕΕ επισημαίνουν ότι οι προσωρινές αλλαγές δεν ήταν αρκετά γρήγορες ούτε αρκετά αποτελεσματικές και ότι η X έπρεπε να είχε εκτιμήσει τους κινδύνους πριν την ενεργοποίηση του σχετικού εργαλείου δημιουργίας εικόνων.
Η Επιτροπή και η DPC εξετάζουν ήδη το ενδεχόμενο προσωρινών μέτρων, όπως απενεργοποίηση ορισμένων λειτουργιών του Grok στην ΕΕ, αν δεν αποδειχτεί ότι η X μπορεί να ελέγξει αποτελεσματικά αυτό το υλικό.
Πλατφόρμα, ΕΕ και η εποχή των AI deepfakes
Η περίπτωση του Grok είναι μια ακόμη απόδειξη του πώς ένα ισχυρό μεγάλο γλωσσικό μοντέλο με ενσωματωμένη τη δυνατότητα δημιουργίας εικόνων μπορεί να εκτροχιαστεί σε λίγες ώρες, αν δεν υπάρχουν αυστηρά πλαίσια και όρια, αλλά και εργαλεία αναγνώρισης και άμεσης αφαίρεσης τέτοιου υλικού.
Για την ΕΕ, το ζήτημα πλέον δεν είναι μόνο αν η X παραβιάζει κάποιον κανονισμό, αλλά και πώς θα ορίσει τα όρια για την αποδεκτή ανάπτυξη και την εμπορική χρήση των εργαλείων δημιουργίας εικόνων που αξιοποιούν στοιχεία και ταυτότητες πραγματικών ανθρώπων.
